Remembering Has a Price: Learning Memory Worth under Resource Constraints
资源约束下学习记忆价值:TokenWorth 终身记忆框架
🧭 资源受限终身记忆价值学习 ★ 深度解读
Nanjing University · National Key Laboratory for Novel Software Technology, Nanjing University
提出 TokenWorth,在线学习 query-dependent 记忆价值并统一用于检索与记忆淘汰,在资源受限终身智能体任务中成功率最高且输出 token 最少
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 的长程记忆或知识库检索中,不要只按 embedding/BM25 相关度取 top-k;可以增加一层轻量 query-dependent 价值打分,融合历史成功率、可靠性、最近使用等特征,用执行结果(成交/点击/解决率)在线更新,统一指导检索和记忆淘汰。TokenWorth 的 linear base scorer + RFM 残差可以在几百条反馈内工作,适合预算敏感场景。
- 用“任务级结果”作为稀疏监督时,目标设为 \(2r-1\) 即可,不必追求反事实归因;这能避免昂贵重执行。对落地来说,可以把成功交互存为候选 memory,把失败反馈用于更新被注入记忆的价值,低成本积累负信号。
- 记忆管理借鉴 admission/evict 策略:库满后,新经验要么足够新颖,要么 probe-averaged worth 显著超过最差/最优记忆才准入,否则可替换低效用近邻;淘汰时按最近一批 probe queries 的平均价值最低者出局。类似做法可用于在线更新推荐 Agent 的 few-shot 示例库或商品卖点素材库。
- 评估记忆/检索模块时,应像该工作一样固定联合预算(输出 token、步数、存储容量、注入长度),并报告“每 token 收益”;否则复杂 reflection/skill 模块容易在业务中被高估。